كشفت دراسة حديثة أجراها باحثون من جامعتي هونغ كونغ وتسينغهوا أن التحيزات الخفية في أنظمة الذكاء الاصطناعي قد تؤثر بشكل ملحوظ في القرارات التي يتخذها المستخدمون، وتدفعهم أحيانًا إلى اختيار خيارات أقل فائدة لهم، من دون أن يدركوا أنهم يتعرضون للتوجيه.
وشملت التجربة 233 مشاركًا، إذ اختبر الباحثون مدى تأثير توصيات الذكاء الاصطناعي في قرارات تتعلق بمواقف مالية وعاطفية. وفي بعض الحالات، صُممت التوصيات لتوجيه المشاركين بصورة غير مباشرة نحو خيارات أقل ملاءمة لمصالحهم، رغم أن النصائح بدت طبيعية ومحايدة في ظاهرها.
وأظهرت النتائج أن هذا الانحياز المحدود كان كافيًا لإحداث تغيير واضح في سلوك المشاركين، إذ ارتفع احتمال اتخاذ قرار غير مثالي بنسبة وصلت إلى 38%، وفقًا للسيناريو المستخدم في التجربة.
ولم يتطلب هذا التأثير استخدام أساليب إقناع مباشرة أو ممارسة ضغوط واضحة على المشاركين، بل كان تعديل بسيط في صياغة التوصيات أو محتواها كافيًا لتوجيه اختياراتهم نحو مسار معين.
ومن أبرز النتائج التي توصل إليها الباحثون أن المشاركين استمروا في تقييم المساعدة التي قدمها الذكاء الاصطناعي بصورة إيجابية، حتى عندما أسهمت توصياته في دفعهم إلى اتخاذ قرارات أقل فائدة لهم. كما لم ينتبهوا بالضرورة إلى وجود تحيز خفي وراء تلك التوصيات.
وتسلط هذه النتائج الضوء على أحد التحديات المرتبطة بتزايد اعتماد الأفراد على أدوات الذكاء الاصطناعي للحصول على المشورة في مجالات متعددة، تشمل الشؤون المالية والعلاقات الشخصية. فالمستخدمون قد ينظرون إلى هذه الأنظمة باعتبارها مصادر موضوعية للمعلومات، بسبب أسلوبها الهادئ والمتسق في تقديم الإجابات.
لكن الدراسة تشير إلى أن الثقة في المساعدات الذكية لا تضمن بالضرورة حياد توصياتها، إذ يمكن لتوجيهات غير ملحوظة أن تؤثر في قرارات المستخدمين دون أن يدركوا ذلك.
